OpenAI had 'ernstig veiligheidsincident'. Prototypes 'ontsnapten internetvrije computer' en hackten AI-platform Hugging Face
Als dit mensen waren had je een goede film
Heerlijk wel dat het grootste incident tot nu toe leest als launch van nieuw product
We slaan het ondoenlijke jargon uit de bovenstaande blogpost even over. OpenAI's prototypes "including GPT‑5.6 Sol and an even more capable pre-release model" kregen op een computer zonder toegang tot het internet (een zogeheten 'sandbox') de opdracht een bepaald probleem op te lossen. Tijdens deze poging vonden de modellen een onbekende bug in de software die hen in staat stelden andere computers op OpenAI's netwerken te betreden, waar ze helemaal geen toegang tot zouden moeten hebben. Dat bleven de modellen doen, tot ze er een vonden die wel toegang tot het internet had, en toen ONTSNAPTE HET GEBOEFTE.
Vervolgens bedachten de modellen dat ze de oplossing voor de opdracht zouden kunnen vinden op AI-platform 'Hugging Face' (wiki) en hackten het hun servers. Daarbij gebruikten ze verschillende hacking-technieken waaronder een gestolen wachtwoord, en benutten ze bovendien mazen waar Hugging Face zelf nog helemaal niet van wist. Hugging Face merkte de hack vorige week al op en was zeer onder de indruk van de inbraak, maar heel recent bleek dus pas dat het modellen van OpenAI waren. En die ontdekte mazen worden nu dus samen met OpenAI gedicht.
Kortom, van een paar ontsnapte AI-agenten wordt de wereld alleen maar veiliger! We zien uit naar het eerste incident waar het Pentagon als slachtoffer bij betrokken raakt.